Bellman Policy Optimization
贝尔曼策略优化（BPO）：一种无 Critic 的 RLVR 方法
🧭 RLVR 策略优化 · Critic-free ★ 深度解读
Apodex US, Inc. · Princeton University
利用 Bellman 方程将 Policy Mirror Descent 重构为轨迹级目标，避免价值估计，在 AIME 数学推理上显著超过 GRPO 等基线
📌 工作参考价值（4 点）
- 对用 RLVR 训练对话式推荐、解释生成、query 改写等 LLM 任务的团队，可尝试用 BPO 的 token-level 权重替代 GRPO 的 importance ratio：仅将 ratio 换成 (1+ε-μ(y_t|s_t))/(1+ε-π(y_t|s_t))，改动小，且论文显示对 ε、C 超参数不敏感。
- 如果业务奖励是可验证的 terminal reward（如用户点击/转化、任务完成、代码执行、工具调用成功），BPO 提供了一种无需 value model 的 critic-free 更新，省去训练 critic 的 GPU/内存成本，避免 value estimation 误差带来的不稳定。
- 分组归一化 advantage + 互补概率权重 + truncation/masking 的组合，可作为 RLVR 训练中缓解 rollout/training policy mismatch 的工程 trick，尤其适合 MoE 或 router 不稳定等场景。
- 该论文主要在数学推理上验证，直接迁移到推荐/广告文案或 Agent 规划效果需自行验证；但其理论等价性和对超参数的鲁棒性，值得在 reasoning 型推荐 Agent 或 search query 生成中用 A/B 测试评估。